Cuộc đời Lâm Xung trước khi lên Lương Sơn rất éo le: Bị bạn thân (Lục Khiêm) phản bội và bị bọn gian thần hãm hại đến thân bại danh liệt mất hết nhà cửa, vợ bị giết. Lâm Xung vốn có thù sâu với Cao Cầu, nhưng lần nào cũng không giết được Cao Cầu. Ông phải lên Lương Sơn tại đây do thủ lĩnh Vương Luân hẹp hòi, gặp lúc Tiều Cái và các tướng lên, Lâm Xung đã giết Vương Luân, tôn Tiều Cái lên làm thủ lĩnh. Khi Tống Giang bị hành hình, ông là người không quen biết Tống Giang nhưng đứng ra xin đi cướp pháp trường, Ngô Dụng khuyên ở lại giữ Lương Sơn Bạc.

Lâm Xung được tham gia cuộc chiến Tăng Đầu Thị lần 1, Tiều Cái bị Sử Văn Cung giết. Tống Giang lên làm thủ lĩnh. Thu phục được Lư Tuấn Nghĩa, đại quân Lương Sơn đánh Tăng Đầu Thị lần 2 trả thù cho Tiều Cái, giết chết Sử Văn Cung. Triều đình liên tục phát binh chinh phạt, Lâm Xung lập nhiều chiến công. Một lần nghĩa quân Lương Sơn bắt được Cao Cầu, được tin Lỗ Trí Thâm báo Lâm Xung rất lấy làm vui mừng mang đao định giết chết hắn nhưng bị Tống Giang cản lại không cho giết, Lâm Xung lấy làm uất hận.